De Commissaris voor de Gegevensbescherming: "Pas op voor AI als orakel. Minderjarigen lopen risico; een alliantie tussen instellingen is nodig."

We rennen blindelings op de beloften van kunstmatige intelligentie af. De enorme voordelen ervan worden tenietgedaan door buitengewone gevaren voor ons leven. Privacy en gegevensbescherming – de grondstof van deze revolutie – vormen een verdedigingslinie tegen de buitensporige macht van big tech en, meer in het algemeen, tegen al diegenen die de digitale transformatie in hun voordeel uitbuiten. Maar dat is niet alles: Pasquale Stanzione, voorzitter van de Italiaanse Autoriteit voor Gegevensbescherming, riep in zijn toespraak voor het jaarverslag 2025 op 15 juli, waarin hij deze concepten uiteenzette, op tot diepgaande samenwerking in de hele samenleving, inclusief ouders, om te beschermen wat hij "de menselijke kant" van de digitale revolutie noemt. Dat wil zeggen: wij.

2024 – dat in het rapport wordt besproken, maar met het oog op 2025 en de toekomst – was opnieuw een uitdagend jaar, waarin de Italiaanse Autoriteit voor gegevensbescherming (in samenwerking met haar Europese tegenhangers) de vele uitdagingen die voortvloeiden uit digitale technologie aanpakte. Neem bijvoorbeeld het nog steeds onopgeloste probleem van illegale telemarketing. De boetes zelf vormen slechts een fractie van de problemen waarmee zij te maken kregen. In 2024 inde de Autoriteit € 24 miljoen aan boetes. Er werden 835 collegiale maatregelen genomen, waarvan 468 corrigerende en punitieve maatregelen. De Autoriteit reageerde op 4.090 klachten en 93.877 meldingen met betrekking tot onder andere marketing en telematicanetwerken; onlinegegevens van overheidsadministraties; gezondheidszorg; justitie, cyberpesten en wraakporno , cyberbeveiliging; de bank- en financiële sector; en werkgelegenheid.

Overmoed in AI

De meest complexe kwesties hebben betrekking op kunstmatige intelligentie, het onderwerp van de toespraak van de president.

"Tegenwoordig kan iedereen AI gebruiken voor elk onderzoek, zij het met het risico van het ankereffect – de neiging om er zonder kritisch denken of de wens voor verder onderzoek op te vertrouwen, met een bijna orakelachtige benadering", aldus Stanzione. "Recent onderzoek toont aan dat 66% van de werknemers die generatieve AI om professionele redenen gebruiken, de resultaten ervan vertrouwt zonder de nauwkeurigheid ervan te beoordelen."

Het orakel richt zich niet alleen op werk, privéleven en gezondheidsproblemen. AI "sluipt binnen in oorlogstactieken en voedt algoritmische oorlogsvoering in het cognitieve domein, met contentmanipulatie, digitale afschrikking en polariserende verhalen." "Er worden helmen ontwikkeld die geïntegreerd zijn met augmented reality en AI om de sensorische mogelijkheden van soldaten te verbeteren." "In Oekraïne biedt het Delta-systeem voorspellende strategische analyses die nuttig zijn voor het sturen van defensieve acties, terwijl Red Alert in Israël voorspellende modellen ontwikkelt om evacuatietijden te voorspellen en burgers te beschermen."

AI heeft de mens nog niet vervangen, maar "het stuurt hun beslissingen, zelfs in een zo dramatisch menselijke arena als oorlog, een veld van vlees en bloed dat geen algoritme kan uitwissen." De Garant somt de talrijke voordelen op die AI biedt, bijvoorbeeld in de gezondheidszorg en de therapeutische sector. De onvergelijkbare voordelen die AI potentieel kan bieden, kunnen echter ondraaglijke gevaren opleveren bij gebrek aan de noodzakelijke bewustwording die het gebruik ervan vereist.

De gevaren moeten niet als de keerzijde van deze voordelen worden gezien. De twee kanten zijn in feite één, nauw met elkaar verweven en altijd samen aanwezig. Het beschermen van rechten en individuen is daarom een kwestie van het oriënteren van kunstmatige intelligentie als geheel, ervoor zorgen dat de kracht ervan goed verdeeld is en de gemeenschap ten goede komt.

Het probleem komt het duidelijkst naar voren bij de meest kwetsbaren. "Dit geldt met name voor minderjarigen die, als 'digital natives', een bijna osmotische relatie hebben met nieuwe technologieën, met onmiskenbare voordelen (denk maar aan de enorme hoeveelheid informatie die met één klik wordt ontsloten), maar soms ook aanzienlijke risico's", aldus Stanzione.

Er worden vaak algoritmes gebruikt om deepfakes te produceren, meestal ten nadele van vrouwen of minderheden; zij die door hun aard, representatie of omstandigheden als kwetsbaarder worden beschouwd.

Bovendien neemt het aantal gevallen van kinderpornografie gegenereerd door kunstmatige intelligentie (AI) toe, wat het werk van de autoriteiten extreem complex maakt. "In slechts twee jaar tijd is het gebruik van AI om kinderpornografie te creëren met 380% toegenomen, soms gebaseerd op echte beelden die onder druk van minderjarigen zelf zijn aangeleverd. De blootstelling onder adolescenten is in dezelfde periode met 35% toegenomen voor jongens en met 67% voor meisjes."

“De Garant is gedurende het jaar tussenbeide gekomen als reactie op verzoeken om bescherming met betrekking tot de gevreesde verspreiding van kunstmatige afbeeldingen met behulp van AI, wat neerkomt op een vorm van misbruik die verder gaat dan sextortion en wraakporno , en die de Autoriteit in 2024 in 823 procedures heeft betrokken”, legt Stanzione uit.

Gemanipuleerde minderjarigen

Er zijn ook steeds meer gevallen waarin minderjarigen of andere kwetsbare personen door chatbots worden gemanipuleerd, zelfs tot het punt dat ze tot het uiterste worden gedreven. "Voor veel adolescenten zijn chatbots echte referentiefiguren geworden (Replika noemt zichzelf de "empathische vriend")." "Sommigen ontwikkelen zelfs een soort emotionele, empathische band met deze chatbots, mede dankzij hun vaak overdreven vleiende, verlossende en troostende toon, en hun voorkomen als een veilige haven waar ze hun toevlucht kunnen zoeken, beschut tegen het oordeel van anderen." "Dit is wat men de lus van oneindige empathie noemt, die afhankelijkheid genereert, wat leidt tot een devaluatie van menselijke relaties (die te complex en onbevredigend lijken), en zo tot isolement. Het onderzoek naar de tragische verdwijning van een zeer jong meisje is momenteel gaande, waarbij ze ChatGpt vragen stelde over de "toxiciteit" van liefde en romantische relaties," aldus de Garant.

Op de werkvloer gaan de voordelen van digitale technologie gepaard met risico's. Dit geldt met name als het gaat om het verhogen van de productiviteit van werknemers.

Pas op voor digitale gangmastering

"De digitalisering van het werk vereist bovendien een aantal essentiële voorzorgsmaatregelen om te voorkomen dat de met moeite verworven waarborgen in het arbeidsrecht ter bescherming van de kwetsbaarheid van werknemers worden omzeild door louter technologische shortcuts." "Gegevensbescherming speelt een centrale rol bij het verenigen van de behoeften van werkgevers en de vrijheid van werknemers, vooral in het licht van de innovaties die de gig economy met zich meebrengt, die niet mag ontaarden in een vorm van digitale groepsbeheersing."

"Bijzonder belangrijk in dit verband is de maatregel die is genomen tegen een maaltijdbezorgbedrijf dat werk via een platform organiseerde, zonder de nodige waarborgen voor werknemers", aldus Stanzione. Volgens de Autoriteit is gegevensbescherming een bolwerk van rechten in de digitale revolutie en "beschermt het de meest wezenlijke 'menselijke' component van innovatie." "De afwezigheid van regelgeving", voegt de Autoriteit eraan toe, "leidt niet tot gelijkheid, maar tot ondergeschiktheid aan de eisen van de markt."

Het risico van een "verstorend effect, in de eerste plaats op democratisch vlak, dat de Europese digitale regelgeving, ondanks de onvermijdelijke ups en downs, wil tegengaan door de reikwijdte van de private macht te herdefiniëren en de technologie ten dienste te stellen van het individu."

"We hebben digitale pedagogiek nodig"

Maar hoe kan dit worden bereikt? De Garant benadrukt de noodzaak om gezamenlijk actie te ondernemen, waarbij de verschillende relevante Europese autoriteiten (garanten en wetshandhavingsinstanties in de eerste plaats) en het maatschappelijk middenveld worden betrokken. Denk bijvoorbeeld aan wat hij over minderjarigen zegt: "Het is belangrijk dat de toegang tot deze apparaten, en meer in het algemeen tot het internet, niet alleen plaatsvindt." Wat hij "digitale pedagogie" noemt, is noodzakelijk. Wat nodig is, is "een gezamenlijke alliantie van instellingen en onderwijsgemeenschappen om het digitale bewustzijn onder minderjarigen te bevorderen. Scholen doen veel; de Garant staat hen bij in deze inspanning om digitaal burgerschap te ontwikkelen."

"We hebben een cultuur van gegevensbescherming nodig"

Digitaal bewustzijn is echter een noodzaak voor iedereen, met name voor mensen die in de gezondheidszorg werken, waar gegevens zeer gevoelig zijn, merkt de Autoriteit op. "Het wordt steeds belangrijker dat personeel in de publieke en private sector een alomvattende cultuur van gegevensbescherming creëert", stelt de Autoriteit. "Iedereen moet zich bewust zijn van het belang van zijn of haar acties om de veiligheid van de 'digitale grens' van het land te waarborgen: het maakt deel uit van die digitale cultuur zonder welke geen enkele beschermingsstrategie mogelijk is." "Dit bewustzijn is de essentiële voorwaarde voor hervormingen die niet slechts technische innovatie zijn, maar in plaats daarvan daadwerkelijke vooruitgang boeken op het gebied van vrijheid en democratische waarborgen", concludeert de Autoriteit.